【Yahoo 新聞報道】OpenAI 上周發表一份有關全球惡意使用 AI 的調查報告,其中發現有用戶發動網絡輿論,攻擊遊戲《逆統戰》,並聲稱該遊戲受到廣泛反對。調查發現,有關網絡攻擊很可能源自中國,有關的 ChatGPT 帳戶已被禁。
香港警方國安處昨日(10日)表示,「逆統戰:烽火」流動應用程式以遊戲作為包裝,其目的為宣揚「台獨」、「港獨」等分裂國家的主張,提醒市民切勿下載該用程式,亦不應「課金」,否則可能被視為管有具煽動意圖的刊物。
OpenAI 過去一直有留意用戶使用 AI 的方式,希望人工智能可幫助人類解決實際難題,避免被惡意利用,包括防止專制政權利用 AI 聚集權力、控制公民、威脅或脅迫其他國家,並會阻止秘密影響行動(covert influence operations)、剝削兒童、詐騙、垃圾郵件和惡意網路活動等活動。
OpenAI 上周發表一份有關全球惡意使用 AI 的調查報告,在 10 個案例中,有 4 宗包括社交工程攻擊、秘密行動及網絡威脅等案例,可能源自中國。
其中在 「Sneer Review」行動中,OpenAI 調查發現,有 ChatGPT 用戶利用 AI,大量生成社交媒體內容。這些用戶主要以中文給予指令,並且集中討論與中國有關的政治及地緣政治話題。報告並指,一名用戶更聲稱任職中央宣傳部,惟 OpenAI 表示沒有任何證據可證實這點。
調查發現,這些用戶利用 AI 生成的社交媒體內容,都與中國的地緣戰略利益有密切關係,有部分內容集中台灣,並針對遊戲《逆統戰》。有關用戶發動了網上攻擊,用 AI 生成數十條中文留言批評《逆統戰》,之後再生成一篇長文章,聲稱該遊戲受到廣泛反對,文章其後被上載到網上論壇。報告形容,這是今次調查發現之中最顯著的惡意使用 AI 的行為。
另外,有關用戶亦發動輿論討論關閉美國國際開發署(USAID),利用 AI 生成一些支持及反對的留言,並在 TikTok 及 X 上發表。支持關閉 USAID 的留言者認為,目前關稅政策導致經濟不景,因此有必要關閉 USAID。此外,調查亦發現,有用戶利用 AI 撰寫文章,報告形容具有「中國公安機關風格」,文章詳細敘述中國公安人員如何修煉自律,如何體現習近平的法治思想。